Tháng 9 năm 1955 Bộ Thủy lợi và Kiến trúc được thành lập, ông được bổ nhiệm làm Thứ trưởng, Bí thư Đảng đoàn Bộ. Bộ trưởng là ông Trần Đăng Khoa nguyên Bộ trưởng Bộ Giao thông Công chính.

Năm 1957 ông là thành viên Ban tổ chức cho Đại hội Đảng.

Ngày 29/4/1958, tại Kỳ họp thứ VIII, Quốc hội khóa I đã ra Nghị quyết thành lập Bộ Kiến trúc để thực hiện chức năng giúp Chính phủ quản lý về kiến trúc, quy hoạch, kiến thiết cơ bản, nhà đất và sản xuất vật liệu xây dựng. Bộ Thủy lợi và Kiến trúc tách ra thành Bộ Thủy lợi và Bộ Kiến trúc, ông Trần Đăng Khoa được bổ nhiệm làm Bộ trưởng Bộ Thủy lợi. Ông giữ chức Bộ trưởng đầu tiên và lâu nhất của Bộ Kiến trúc (4/1958 - 6/1973) nay là Bộ Xây dựng.[7]

Ông còn kiêm nhiệm chức vụ Ủy viên Ủy ban Khoa học Nhà nước trong thời gian đầu thành lập Ủy ban.[8]

Năm 1964 ông trúng cử Đại biểu Quốc hội Việt Nam khóa III khu vực tỉnh Hà Nam [9]